Reasoning Core: Designing Broad Procedural Data for Completion-Supervised Reasoning Training
程序化推理数据设计:Completion-Supervised微调下的广泛生成器集合
🧭 程序化数据生成 · 推理训练
Univ. Lille · Inria · CNRS · Centrale Lille · CRIStAL
构建50个生成器的Reasoning Core,揭示紧凑目标和校准难度对完成监督推理训练的关键作用
📌 工作参考价值(4 点)
- 为Agent训练构建程序化推理数据:可借鉴其生成器框架,创建电商购物助手所需的多步决策、约束满足等合成样本,通过难度控制逐步提升模型推理能力。
- 训练数据设计原则:优先保证目标的紧凑性(减少冗长输出)和难度校准,避免模型学习表面模式;在搜索推荐场景中生成query改写或解释时,可据此过滤低质样本。
- 数据质量审计流程:将模型辅助审查、人工裁决和回归测试组合,用于保障搜索/推荐系统的合成训练数据质量,快速发现生成与标注错位。
- 验证数据效用的方法论:不依赖单一的语义合理性,而是直接在下游任务(如DROP/ARC)上评估数据贡献,业务中可据此建立快速反馈循环,筛选真正有效的训练数据。